Đường vành đai 3 đã bắt đầu có trong quy hoạch của Hà Nội từ cuối những năm 1990 thông qua quyết định số 945/CP-KTN ngày 13 tháng 8 năm 1998 của Thủ tướng Chính phủ khi đó phê duyệt

Vào khoảng năm 1986, đường Phạm Văn Đồng và một đoạn của đường Pháp Vân đã bắt đầu xuất hiện. Đường Bắc Thăng Long - Nội Bài được khỏi công sau đó vào khoảng năm 1988 và hoàn thành vào năm 1998. Vào cùng thời điểm đó, một đoạn của đường Phạm Hùng bắt đầu xuất hiện. Đến khoảng năm 2005, đường Phạm Hùng về cơ bản đã hoàn thành và đưa vào sử dụng. Khi đó, ở đầu bên kia thành phố, cầu Thanh Trì cũng đã được đưa vào sử dụng, giảm tải cho cầu Chương Dương.

Đến năm 2008, khi lưu lượng phương tiện đi qua và ra/ vào Hà Nội ngày một đông, nhu cầu cấp thiết phải có một tuyến đường trên cao để cho các xe đi vòng tránh trung tâm Hà Nội, và mở rộng đường phía dưới để cho phương tiện lưu thông ra/ vào trung tâm Hà Nội. Khi đó, đoạn đường Khuất Duy Tiến chỉ là một con đường bé rộng khoảng 5m, còn đoạn từ Nguyễn Trãi đi Linh Đàm thì chưa hề xuất hiện.